La technologie T-MAC (Table-Lookup-based MAC) vise à résoudre les problèmes de mémoire et de calcul liés au déploiement de grands modèles linguistiques (LLM) sur les appareils en périphérie. En quantifiant les poids du modèle en une représentation à faible nombre de bits, T-MAC utilise une table de recherche (LUT) pour remplacer les opérations de multiplication traditionnelles, améliorant ainsi considérablement l'efficacité de l'exécution sur CPU. Cette méthode réduit considérablement la mémoire nécessaire aux calculs, permettant ainsi l'exécution efficace de LLM à plusieurs milliards de paramètres sur des appareils aux ressources limitées, et permettant une mise à niveau intelligente. Comparé aux implémentations existantes, T-